Pillole
Cassandra Crossing/ Perché un dettaglio tecnico delle false IA, per giunta di tipo matematico, dovrebbe essere conosciuto da tutti?
Il collasso di un modello di LLM avviene quando un modello, addestrato sui dati generati da generazioni precedenti di modelli, inizia a perdere informazioni, particolarmente sulle code della distribuzione statistica dei dati originali, e alla fine converge verso una stima a punto singolo, con poca varianza statistica (in soldoni, fornisce sempre la stessa risposta a qualsiasi domanda).
Cassandra Crossing/ Le false IA commerciali che usiamo oggi sono così ambigue che non si riesce a usarle senza correre continui rischi. Anche quando si parla in confidenza.
Proprio nel giorno di San Valentino, Cassandra si è imbattuta su Gizmodo in un articolo, citato anche da Slashdot, che parlava di evidenti e gravi problemi di privacy presenti negli accordi di licenza dei "chatbot romantici".
Cassandra Crossing/ Quanto è sfaccettato il problema delle capacità delle false IA e delle loro ''allucinazioni'' quando viene discusso nei salotti? E nel marketing? E nella filosofia?
Perché il termine allucinazioni è volutamente errato e ingannatore? Perché l'avere allucinazioni implica un funzionamento razionale e una percezione corretta del mondo o del dominio di conoscenza del sistema, in tutti gli altri casi.
E dove manca non solo intelligenza, ma anche il semplice determinismo, non è possibile, anzi è totalmente disonesto parlare di "allucinazioni", quando invece si tratta manifestazioni particolarmente forti della normale assenza di significato di tutte le risposte, anche quelle "esatte".
Cassandra Crossing/ Com'era prevedibile, ChatGPT evolve verso un'architettura di API e plugin. Questo rappresenta un rischio, perché deresponsabilizza sia chi vende i servizi di GPT4 sia chi li usa.
Circa due mesi fa un annuncio di OpenAI ha reso nota la realizzazione di plugin che consentono di interfacciare ChatGPT con fonti esterne di dati e servizi.
Tecnicamente, si tratta di una API che permette la realizzazione di plugin che interfacciano, anche in maniera bidirezionale, una fonte di dati o un servizio con ChatGPT (per esempio) e viceversa.
In questo modo ChatGPT può utilizzare risorse informative per produrre le sue "risposte". E nella direzione opposta gli "oggetti intelligenti", i servizi e i siti possono far generare testi, programmi e immagini alla falsa IA di turno, e utilizzarli per produrre i risultati o le pagine che devono fornire.
È perfettamente chiaro come questa architettura permetta un immediato inserimento delle false Intelligenze Artificiali nei tessuti profondi della Rete come la conosciamo oggi.
«La pratica» - si diceva un tempo - «è più importante della grammatica». È per questo motivo che per oggi Cassandra dismette il cappello da profetessa per raccontare come sono stati i suoi ultimi due anni senza Google, più precisamente con uno smartphone Android completamente degooglizzato.
Che cosa manca di più?
Certamente Google Maps. L'utilizzo delle reti WiFi per migliorare la rilevazione delle posizioni e l'integrazione con il motore di ricerca e i punti di interesse rendono Maps un'applicazione dall'uso incredibilmente semplice e potente.
Il sostituto Magic Earth, che usa solo il posizionamento GPS e le mappe di Open Street Map, è molto più spartano e farraginoso da utilizzare. Ma 10 anni fa sarebbe stato giudicato invece un miracolo dell'informatica, e comunque vi porta dove volete andare. È un sacrificio che valeva senz'altro la pena di fare. I ristoranti cercateli con un motore di ricerca.
Cassandra Crossing/ Le parole al vento, i bit per l’eternità.
Poi è venuto il digitale, e l'informazione si è riversata li. La parola scritta si è trasformata in sequenze di bit, e i bit sono il mezzo meno duraturo e più cagionevole inventato dall'uomo. Pur essendo potenzialmente eterni, ben poco delle opere e degli scritti nati digitali è sopravvissuto fino a oggi.
Pensiamo alle "opere digitali" su Cd-Rom, tanto comuni nelle edicole di una quindicina di anni fa. Fortemente legate a un sistema operativo e un computer, sono già oggi illeggibili, a causa del progresso tecnologico che ha spazzato via le piattaforme su cui potevano essere fruite.
Cassandra Crossing/ Lasciare Google o Apple diventa più facile, non ci sono ormai motivi pratici o difficoltà tecniche da usare per autoassolversi; in più, ecco una piccola guida rapida su cosa fare e come farlo.
I 24 indefettibili lettori, ma non solo loro, sono ormai edotti sul lungo viaggio che ha portato Cassandra ad abbandonare i sistemi operativi proprietari per smartphone, riducendo moltissimo i danni alla propria privacy subiti, a malincuore, per poterne usare uno. Sono passati ormai tre anni, e le uniche difficoltà incontrate sono state dover fare i conti con le applicazioni sostitutive di Search, Maps e cose così.
Cassandra Crossing/ Esiste una scuola di pensiero che ritiene possibile l'evoluzione "spontanea" dei modelli linguistici in "vera" intelligenza artificiale. Di che cosa si parla esattamente?
È un concetto interessante in cui Cassandra non si era mai imbattuta. Ha invece scoperto che l'ipotesi è, pur in un ambiente molto ristretto, oggetto di dibattito filosofico e anche scientifico. Molto interessante, e vediamo di spiegare il perché.
Perdonate però la vostra profetessa preferita, perché sono necessarie un bel po' di premesse. Speriamo che almeno i 24 indomiti lettori mi seguano senza esitare.
GPT-4/ChatGPT fa parte di una delle più vaste e pericolose campagne di marketing che il mondo dell'informatica abbia mai visto. È una campagna volta a incentivare l'adozione, più vasta e meno controllata possibile, di un nuovo prodotto, delle tecnologie di falsa Intelligenza Artificiale basate sul Deep Learning.
La non-intelligenza delle false "Intelligenze Artificiali" basate sulle tecnologie di Deep Learning, fatto totalmente assodato e condiviso ma volutamente sempre nascosto, la cui conoscenza è vitale, può e deve essere ripetuto instancabilmente, in forma semplice e completamente comprensibile. Un'ottima formulazione è apparsa recentemente sulla mailing list "Nexa" a opera del professor Enrico Nardelli, che qui ringrazio. In sintesi è:
GPT4/ChatGPT esibisce una competenza simile a quella degli esseri umani sul livello sintattico ma è lontana anni luce dalla nostra competenza semantica. Essa non ha alcuna reale comprensione del significato di ciò che sta facendo. Purtroppo, questo è un problema nostro di grande rilevanza sul piano sociale, poiché ciò che fa lo fa bene, esprimendosi in una forma bella e sofisticata che per noi assume un significato. Questo avviene però solo in quanto noi "proiettiamo" su di essa un significato che è in noi stessi.
Leggi l'articolo completo su ZEUS News
Cassandra Crossing/ Mortale come Metalhead, acquistabile da catalogo, assemblabile da qualsiasi smanettone o esercito del terzo mondo.
Mai deresponsabilizzarsi e glissare sul proprio operato; Cassandra quindi, che sulle LAWS, le armi autonome letali, ha già vaticinato tante volte, oggi può puntare il dito e mostrare un video che sta spopolando su Twitter. Nel video vediamo un cane robotico, simile allo Spot di Boston Dynamics, che con un AK-47 ben fissato sulla schiena, marcia in un paesaggio innevato e spara colpi singoli e raffiche contro alcuni bersagli.
Leggi l'articolo completo su Zeus News
Cassandra Crossing/ Un robot assassino potrebbe già oggi entrarvi in casa senza bussare.
Un aspirapolvere commerciale può muoversi da solo per casa, rilevare la pianta dell'appartamento e trasmetterla al fabbricante. Se lo fa un aspirapolvere, perché non potrebbe farlo un robot assassino?
I droni luminosi usati in molti eventi sono incredibilmente efficienti nel posizionarsi, formando disegni e volando in formazione. Se lo fanno i droni, perché non potrebbero farlo sciami di robot assassini?
Leggi l'articolo originale su ZEUS News
